Siergiej Adamowicz Kowaliow urodził się 2 marca 1930 r. w miejscowości Seredina-Buda w obwodzie Sumskim na Ukrainie, w rodzinie kolejarskiej. W 1932 r. rodzina Kowaliowa przeprowadziła się do Podlipek - wioski nieopodal Moskwy. W roku 1954 ukończył biofizykę na Uniwersytecie Moskiewskim, specjalizując się w dziedzinie sieci neuronowych. żyje i pracuje w Moskwie. Jako biofizyk, był autorem ponad 60 publikacji naukowych. W roku 1964 obronił pracę doktorską i uzyskał stopień doktora nauk biologicznych.

Od połowy lat 50. sprzeciwiał się antynaukowym teoriom Trofima łysenki, panującym w radzieckiej biologii i oficjalnie popieranym przez KPZR.

W 1968 roku Kowaliow dołączył do ruchu obrony praw człowieka w ZSRR. W maju 1969 r. założył pierwszą w ZSRR organizację obrony praw człowieka - Grupę Inicjatywną dla Obrony Praw Człowieka w ZSRR. Od 1971 roku Kowaliow pracował jako jeden z głównych autorów informacyjnego czasopisma Kronika Zdarzeń Bieżących, wydawanego jako maszynopis przez radzieckich działaczy praw człowieka. 28 grudnia 1974 roku S. Kowaliow został aresztowany i postawiono mu zarzut "propagandy i agitacji antysowieckiej". Przez siedem lat przebywał w obozach pracy, kolejne trzy na wewnętrznym zesłaniu.

W czasie pierestrojki Kowaliow powrócił do Moskwy, uczestniczył w wielu społecznych inicjatywach: był członkiem komitetu organizacyjnego Międzynarodowego Seminarium Humanitarnego (grudzień, 1987); brał udział w tworzeniu klubu prasowego "Głasnost"; w zebraniu Stowarzyszenia na rzecz obrony praw człowieka "Memoriał" (od 1990 roku był jego wiceprezesem, a podczas jednej z konferencji został wybrany na prezesa Rosyjskiego Stowarzyszenia „Memoriał”). W roku 1989 Andriej Sacharow rekomendował Kowaliowa jako współprzewodniczącego Grupy Projektowej Praw Człowieka przy Międzynarodowej Fundacji na Rzecz Przetrwania i Rozwoju Ludzkości - później przemianowanej na Rosyjsko-Amerykańską Grupę Praw Człowieka. W tym samym czasie Kowaliow został członkiem Moskiewskiej Grupy Helsińskiej.

Od 1990 do 2003 roku Kowaliow był deputowanym do Dumy Państwowej i Rady Najwyższej Federacji Rosyjskiej. Od 1993 do 1996 roku działał jako Prezes Prezydenckiej Komisji Praw Człowieka. W styczniu 1994 roku Kowaliow został wybrany na Pierwszego Pełnomocnika Praw Człowieka (w 1995 r. decyzją Dumy był odwołany ze stanowiska). Od 1996 do 2003 roku był członkiem delegacji rosyjskiej w Zgromadzeniu Parlamentarnym Rady Europy. Od 2004 r. Współprzewodniczący Rady Biegłych Rewidentów przy Pełnomocniku Praw Człowieka Federacji Rosyjskiej.

Siergiej Kowaliow współtworzył Deklarację Praw Człowieka i Obywatela (w styczniu 1991 r.) oraz odegrał wiodącą rolę przy opracowaniu jednego z rozdziałów obecnej Konstytucji Rosji pt. "Prawa i Wolności Człowieka i Obywatela", a także szeregu ustaw federalnych dotyczących tej problematyki.

Od 1994 do 1996 roku nazwisko Siergieja Kowaliowa było powszechnie znanym, ponieważ on publicznie sprzeciwiał się polityce militarnej Kremla w Czeczenii.

Kowaliow jest laureatem i posiadaczem licznych nagród oraz tytułów honorowych. Za konsekwentną obronę praw człowieka był nominowany do Pokojowej Nagrody Nobla. Otrzymał ponad 10 wysokich odznaczeń i nagród międzynarodowych.